Xe tăng IS-2 lần đầu tham chiến mùa xuân năm 1944. Những chiếc IS-2 được phiên chế vào các trung đoàn tăng hạng nặng riêng biệt, thông thường có 21 xe mỗi trung đoàn.[23] Các trung đoàn này được dùng để tăng cường cho những khu vực tấn công quan trọng nhất trong những chiến dịch lớn. Về chiến thuật, chúng được dùng như những xe tăng đột phá. Vai trò của chúng là hỗ trợ bộ binh trong cuộc tấn công, sử dụng súng lớn để tiêu diệt các lô cốt, các toà nhà, các ụ súng, và các mục tiêu 'mềm' khác. Chúng cũng có khả năng đương đầu với bất kỳ loại xe tăng nào của Đức nếu cần. Một khi nhiệm vụ đột phá đã hoàn thành, những chiếc T-34 nhẹ hơn và có độ cơ động cao hơn sẽ tiếp tục nhiệm vụ.

IS-3 lần đầu xuất hiện trước các nhà quan sát phương Tây tại cuộc Duyệt binh Chiến thắng của Đồng Minh ở Berlin tháng 9 năm 1945. Chiếc IS-3 là một phát triển ấn tượng trong con mắt những nhà quan sát quân sự phương Tây, đặc biệt là người Anh, và họ đã đáp lại bằng những bản thiết kế xe tăng hạng nặng của riêng mình.

Tới cuối thập niên 1950, sự xuất hiện của khái niệm xe tăng chiến đấu chủ lực với loại xe T-64 - phối hợp khả năng cơ động nhanh của xe tăng hạng trung với hoả lực của xe tăng hạng nặng – đã khiến xe tăng hạng nặng mất đi tầm quan trọng trong học thuyết chiến dịch của người Liên Xô. Ở cuối thập niên 1960, những chiếc tăng hạng nặng còn lại của Liên Xô được trao lại cho cơ quan bảo quản và lưu trữ của Quân đội. IS-2 Model 1944 vẫn tiếp tục hoạt động lâu hơn nữa trong các quân đội Cuba, Trung Quốc và Bắc Triều Tiên. Một trung đoàn IS-2 của Trung Quốc được triển khai hoạt động trong Chiến tranh Triều Tiên, nhưng từ đó không hề tham chiến. Trước những căng thẳng biên giới giữa Liên Xô và Trung Quốc, một số chiếc IS-3 của Liên Xô được chôn như những công sự cố định dọc theo biên giới Xô-Trung. Chiếc IS-3 được sử dụng trong các sự kiện ở Hungary năm 1956 và Mùa xuân Praha năm 1968.

Đầu thập niên 1950, tất cả những chiếc IS-3 được hiện đại hoá thành các model IS-3M, cải tiến chủ yếu là việc trang bị bộ đàm liên lạc mới. Quân đội Ai Cập đã mua khoảng 100 chiếc xe tăng IS-3M từ Liên Xô.[24] Trong cuộc Chiến tranh Sáu Ngày, một trung đoàn xe tăng IS-3M duy nhất đã đồn trú với Sư đoàn Pháo binh số 7 tại Rafah và Lữ đoàn Tăng số 125 thuộc Sư đoàn Cơ giới số 6 tại Kuntilla đã được trang bị khoảng 60 chiếc IS-3M.[24] Pháo binh và các đơn vị lính dù Israel đã gặp rất nhiều khó khăn với những chiếc IS-3M trong chiến đấu bởi vỏ giáp dày của nó, vốn không thể bị hư hại bởi các vũ khí chống tăng bộ binh thông thường như súng bazooka.[24] Thậm chí đạn pháo xuyên giáp kiểu mới APDS cỡ 105 mm bắn ra từ những xe tăng M48 Patton hiện đại nhất của Lực lượng Phòng vệ Israel cũng không thể xuyên thủng lớp giáp trước của những chiếc IS-3 ở các cự ly chiến đấu thông thường.[24] Đã có một số cuộc đấu giữa những chiếc M48A2 Patton của Lữ đoàn Thiết giáp số 7 của IDF với những chiếc IS-3 hỗ trợ các vị trí của Ai Cập tại Rafah trong đó nhiều chiếc M48A2 đã bị tiêu diệt trong chiến đấu.[24]

Dù vậy, tốc độ bắn chậm, tính năng cơ động thấp, hệ thống điều khiển hỏa lực đã lạc hậu so với những xe tăng kiểu mới ra đời trong thập niên 1960 như M48 Patton hoặc T-62, cùng với tinh thần và kỹ năng kém của lính tăng Ai Cập là nhược điểm chết người. Khoảng 73 chiếc IS-3 đã mất trong cuộc chiến tranh năm 1967.[24] Đa số những chiếc IS-3 của Ai Cập đã được cho ngừng hoạt động, dù ít nhất một trung đoàn tăng IS-3 được giữ lại phục vụ mãi tới cuộc chiến tranh tháng 10 năm 1973.[24] Nhiều chiếc IS-3 vốn không hề bị phá hủy mà là do lính tăng Ai Cập đã tự bỏ xe để chạy trốn, nhờ vậy Israel đã thu được một số chiếc IS-3M còn nguyên vẹn, họ nhận thấy rằng chúng không thích hợp với kiểu chiến tranh xe tăng di chuyển nhanh trên sa mạc. Những chiếc không bị tháo rời được chuyển thành các công sự phòng ngự tĩnh trong vùng Sông Jordan.[24]

Sau cuộc Chiến tranh Triều Tiên, Trung Quốc đã cố gắng biến IS-2/IS-3 thành xe tăng hạng trung Kiểu 122.[25] Dự án này đã bị huỷ bỏ nhường chỗ cho Kiểu 59, một phiên bản copy của xe tăng T-54A Liên Xô.